从不同的随机初始化开始，经过随机梯度下降（SGD）训练的神经网络通常在功能上非常相似，从而提出了一个问题，即不同的SGD溶液之间是否存在有意义的差异。 Entezari等。最近猜想，尽管初始化不同，但在考虑到神经网络的置换不变性后，SGD发现的解决方案位于相同的损失谷中。具体而言，他们假设可以将SGD找到的任何两种解决方案排列，以使其参数之间的线性插值形成一条路径，而不会显着增加损失。在这里，我们使用一种简单但功能强大的算法来找到这样的排列，使我们能够获得直接的经验证据，证明该假设在完全连接的网络中是正确的。引人注目的是，我们发现在初始化时已经存在两个网络，并且平均它们随机，但适当排列的初始化的性能大大高于机会。相反，对于卷积架构，我们的证据表明该假设不存在。特别是在大型学习率制度中，SGD似乎发现了各种模式。

The Internet of Senses (IoS) holds the promise of flawless telepresence-style communication for all human `receptors' and therefore blurs the difference of virtual and real environments. We commence by highlighting the compelling use cases empowered by the IoS and also the key network requirements. We then elaborate on how the emerging semantic communications and Artificial Intelligence (AI)/Machine Learning (ML) paradigms along with 6G technologies may satisfy the requirements of IoS use cases. On one hand, semantic communications can be applied for extracting meaningful and significant information and hence efficiently exploit the resources and for harnessing a priori information at the receiver to satisfy IoS requirements. On the other hand, AI/ML facilitates frugal network resource management by making use of the enormous amount of data generated in IoS edge nodes and devices, as well as by optimizing the IoS performance via intelligent agents. However, the intelligent agents deployed at the edge are not completely aware of each others' decisions and the environments of each other, hence they operate in a partially rather than fully observable environment. Therefore, we present a case study of Partially Observable Markov Decision Processes (POMDP) for improving the User Equipment (UE) throughput and energy consumption, as they are imperative for IoS use cases, using Reinforcement Learning for astutely activating and deactivating the component carriers in carrier aggregation. Finally, we outline the challenges and open issues of IoS implementations and employing semantic communications, edge intelligence as well as learning under partial observability in the IoS context.

The estimation of the generalization error of classifiers often relies on a validation set. Such a set is hardly available in few-shot learning scenarios, a highly disregarded shortcoming in the field. In these scenarios, it is common to rely on features extracted from pre-trained neural networks combined with distance-based classifiers such as nearest class mean. In this work, we introduce a Gaussian model of the feature distribution. By estimating the parameters of this model, we are able to predict the generalization error on new classification tasks with few samples. We observe that accurate distance estimates between class-conditional densities are the key to accurate estimates of the generalization performance. Therefore, we propose an unbiased estimator for these distances and integrate it in our numerical analysis. We show that our approach outperforms alternatives such as the leave-one-out cross-validation strategy in few-shot settings.

我们研究了情节块MDP中模型估计和无奖励学习的问题。在这些MDP中，决策者可以访问少数潜在状态产生的丰富观察或上下文。我们首先对基于固定行为策略生成的数据估算潜在状态解码功能（从观测到潜在状态的映射）感兴趣。我们在估计此功能的错误率上得出了信息理论的下限，并提出了接近此基本限制的算法。反过来，我们的算法还提供了MDP的所有组件的估计值。然后，我们研究在无奖励框架中学习近乎最佳政策的问题。根据我们有效的模型估计算法，我们表明我们可以以最佳的速度推断出策略（随着收集样品的数量增长大）的最佳策略。有趣的是，我们的分析提供了必要和充分的条件，在这些条件下，利用块结构可以改善样本复杂性，以识别近乎最佳的策略。当满足这些条件时，Minimax无奖励设置中的样本复杂性将通过乘法因子$ n $提高，其中$ n $是可能的上下文数量。

我们在生成模型下研究了固定置信度设置中的折扣线性马尔可夫决策过程中最佳政策识别的问题。我们首先在实例特定的下限上获得了识别$ \ varepsilon $ - 最佳策略所需的预期数量，并具有概率$ 1- \ delta $。下边界将最佳采样规则表征为复杂的非凸优化程序的解决方案，但可以用作设计简单而近乎最佳的采样规则和算法的起点。我们设计了这样的算法。其中之一展示了样本复杂性上限，由$ {\ cal o}（{\ frac {d} {（\ varepsilon+\ delta）^2}}}}（\ log（\ frac {1} {\ delta} {\ delta}）+d d d}} ））$，其中$ \ delta $表示次优的动作的最小奖励差距和$ d $是功能空间的尺寸。该上限处于中等信心状态（即，对于所有$ \ delta $），并与现有的minimax和Gap依赖的下限匹配。我们将算法扩展到情节线性MDP。

训练有素的神经网络的性能至关重要。加上深度学习模型的不断增长的规模，这种观察激发了对学习稀疏模型的广泛研究。在这项工作中，我们专注于控制稀疏学习时的稀疏水平的任务。基于稀疏性惩罚的现有方法涉及对罚款因素的昂贵反复试验调整，因此缺乏直接控制所得模型的稀疏性。作为响应，我们采用了一个约束的公式：使用Louizos等人提出的栅极机制。 （2018年），我们制定了一个受约束的优化问题，其中稀疏以训练目标和所需的稀疏目标以端到端的方式指导。使用WIDERESNET和RESNET {18，50}模型进行了CIFAR-10/100，Tinyimagenet和ImageNet的实验验证了我们的提案的有效性，并证明我们可以可靠地实现预定的稀疏目标，而不会损害预测性能。

我们提出了一种新的频谱分配策略，在无监督的学习中为多源Terahertz通信系统提供了帮助。在此策略中，自适应子频段带宽被认为是使感兴趣的频谱可以分为具有不等带宽的子兰。该策略减少了用户分子吸收损失的变化，从而改善了数据速率的性能。我们首先制定了一个优化问题，以确定最佳的子频段带宽并传输功率，然后提出了基于学习的方法，以获取针对此问题的近乎最佳解决方案。在拟议的方法中，我们首先训练一个深神经网络（DNN），同时利用损失函数，该损失功能受到法式问题的拉格朗日的启发。然后使用训练有素的DNN，我们近似近乎最佳的解决方案。数值结果表明，与现有方法相比，我们提出的基于学习的方法达到了更高的数据速率，尤其是当感兴趣频谱内的分子吸收系数以高度非线性的方式变化时。

准确地测量纳米颗粒的大小，形态和结构非常重要，因为它们在许多应用中都非常依赖其特性。在本文中，我们提出了一种基于深度学习的方法，用于根据扫描透射电子显微镜图像的少量数据集训练的纳米颗粒测量和分类。我们的方法由两个阶段组成：本地化，即检测纳米颗粒和分类，即其超微结构的分类。对于每个阶段，我们通过分析不同最新神经网络的分析来优化分割和分类。我们展示了如何使用图像处理或使用各种图像产生神经网络的合成图像的产生来改善两个阶段的结果。最后，将算法应用于双金属纳米颗粒，证明了大小分布的自动数据收集，包括复杂超微结构的分类。开发的方法可以轻松地转移到其他材料系统和纳米颗粒结构中。

我们使用签名的累积分布变换（SCDT）来描述一种信号参数估计的方法，这是一种基于最佳传输理论的最近引入的信号表示工具。该方法基于最初用于正分布引入的累积分布变换（CDT）的信号估计。具体而言，我们表明，可以简单地使用SCDT空间中的线性最小二乘技术来进行任意信号类别的线性最小二乘技术，从而为任意信号类别进行最小化，从而为估计问题提供了全局最小化，即使基础信号是未知参数的非线性函数，也为全局最小化。使用$ L_P $最小化与当前信号估计方法的比较显示了该方法的优势。

无人驾驶汽车（UAV）的使用提供了各种应用程序的许多优势。但是，安全保证是广泛使用的关键障碍，尤其是考虑到无人机所经历的不可预测的操作和环境因素，这些因素很难仅在设计时间内捕获。本文提出了一种称为SAFEDRONES的新可靠性建模方法，以通过实现无人机的运行时可靠性和风险评估来帮助解决此问题。它是可执行数字可靠身份（EDDI）概念的原型实例化，该概念旨在为多机器人系统的实时，数据驱动的可靠性保证创建基于模型的解决方案。通过提供实时可靠性估算，SAFEDRONES允许无人机以自适应方式相应地更新其任务。